Ofcom разследва X за сексуализирани AI изображения на жени и деца на Grok
Ofcom, английският медиен регулатор, заплаши AI chatbot Grok на X със възбрана или санкция от милиони паунда, откакто стартира публично следствие на сексуализирани deepfakes на дами и деца, основани в платформата на Elon Musk.
В понеделник медийният наблюдаващ изрази опасения, че AI chatbot е бил употребен за евентуално „ корист с интимни изображения “ и „ материали със полово принуждение над деца “.
Говорител на Ofcom сподели: „ Съобщенията за потребление на Grok за основаване и шерване на противозаконни интимни изображения без единодушие и материали за полово принуждение над деца на X са надълбоко притеснителни.
„ Платформите би трябвало да пазят хората в Обединеното кралство от наличие, което е нелегално в Обединеното кралство, и ние няма да се поколебаем да проверяваме къде сме подозрителни компании не извършват отговорностите си, изключително когато има риск от пострадване на деца. “
Ofcom предходната седмица започва бърза инспекция на X, откакто Grok беше употребен за генериране на хиляди сексуализирани изображения на дами, носещи долни дрехи и бикини без тяхно единодушие, както и рискови изображения на тийнейджърки и деца.
Съгласно Закона за онлайн сигурност Ofcom сподели, че може да сезира съдилищата да блокира платформата на Мъск или да санкции групата или с по-високата от £18 милиона, или до една десета от нейните световни доходи, в случай че откри, че X не е направил задоволително, с цел да предотврати гледането на нелегално наличие или да разреши гледането на материали над 18 години от деца.
Разследването ще прегледа шест области, в това число дали X е направил нужните оценки на риска, дали е подхванал дейности за бързо унищожаване на изображения и дали децата биха могли да видят наличие.
Ходът идва преди изказването на министъра на технологиите на Обединеното кралство Лиз Кендъл в понеделник следобяд. Министрите са споделили по-рано, че държавното управление ще поддържа решението на Ofcom.
Ходът за започване на публично следствие е идната стъпка в регулаторния развой на Ofcom за събиране на доказателства за обвиняване против X, само че ще разочарова някои политици, които желаеха по-драстични дейности или потребление на незабавни случаи. пълномощия.
Малайзия и Индонезия станаха първите страни в света, които блокираха достъпа до Grok през уикенда заради опасения, че чатботът може да се употребява за основаване на нецензурен и неконсенсусни изображения, включващи дами и деца.
Този ход евентуално ще провокира гневна реакция от страна на притежателя на X Мъск, който към този момент упрекна държавното управление на Обединеното кралство, че се пробва да потисне свободата на словото, както и това на Доналд Тръмп администрация.
Сара Роджърс, заместник-секретар на Съединени американски щати по въпросите на публичната дипломация, упрекна Обединеното кралство, че „ обмисля възбрана на X в съветски жанр “ този уикенд.
Миналата седмица X отчасти ограничи опцията за генериране на изображения на Grok от безвъзмездни консуматори, само че остави мнозина възмутени, че такава рискова операция на изображения към момента е налична за клиентите, които заплащат.
Министрите на Обединеното кралство също са подложени на напън да отстранен формалните консуматори известия от платформата.
Свързахме се с X за коментар.
